Cha ông là cụ ông Nguyễn Hữu Khoán, năm sinh không rõ, mất năm 1933, là cháu nội của Nguyễn Trọng Đạm, một chỉ huy Cần vương bị Pháp xử bắn ở Cửa Gianh (Quảng Trạch, Quảng Bình).

Mẹ ông là cụ bà Đặng Thị Cấp, sinh ngày 12 tháng 5 năm 1882, mất ngày 22 tháng 4 năm 1982, thọ chẵn 100 tuổi. Chồng mất sớm, bà nuôi dạy 7 người con (5 trai 2 gái) nên người. Cả năm người con trai đều tham gia cách mạng. Ngoài người con trai thứ 5 là Trung tướng Đồng Sĩ Nguyên, người con thứ 6 là Thiếu tướng Nguyễn Hữu Anh, nguyên Phó viện trưởng, Bí thư Đảng ủy học viện hậu cần, Cục trưởng Cục đối ngoại Bộ Quốc phòng. Ngoài ra, một người cháu nội là Nguyễn Hữu Cường (con trai của người con thứ 3 –Nguyễn Hữu Lượng) cũng là một Trung tướng, Tư lệnh Quân khu 4, Đại biểu quốc hội khoá XI.

Ông Đồng Sĩ Nguyên lập gia đình với bà Nguyễn Thị Ngọc Lan, và có với nhau bốn con trai và hai con gái.